Създаването на реалистични Deepfakes става по -лесно от всякога. Борбата обратно може да отнеме още повече AI

Вашингтон (AP) - телефонът звъни. Това е държавният секретар. Или е?

За инсайдърите във Вашингтон, визията и слуха към този момент не имат вяра, с помощта на редица скорошни произшествия, включващи Deepfakes, представящи висшите чиновници в администрацията на президента Доналд Тръмп.

Дигиталните имитации идват и за корпоративната Америка, защото незаконните банди и хакери, свързани с съперници, в това число Северна Корея, употребяват синтетично видео и аудио, с цел да се показват за изпълнителни шефове и претенденти за работа на ниско равнище, с цел да получат достъп до сериозни системи или бизнес секрети.

Благодарение на напредъка на изкуствения разсъдък, основаването на реалистични Deepfakes е по -лесно от всеки път, причинявайки проблеми със сигурността на държавните управления, бизнеса и частните лица и да се доверите на най -ценната валута на цифровата ера.

Отговарянето на предизвикването ще изисква закони, по -добра цифрова литература и техническа решения, които се борят с AI с по -скоро AI.

„ Като хора, ние сме удивително податливи на машинация “, споделя Виджай Баласубрамания, изпълнителен шеф и създател на софтуерната компания Pindrop Security. Но той има вяра, че решенията на предизвикването на Deepfakes може да са разполагаем: „ Ние ще се борим. “

AI Deepfakes се трансформира в опасност за националната сигурност

Това лято някой употребява AI, с цел да сътвори Deepfake of Depe Marco Rubio в опит да се свърже с външни министри, сенатор на Съединени американски щати и губернатор за текст, гласова поща и приложението за известия за сигнали.

През май някой се представяше за началника на Тръмп, Сузи Уилс.

Друг подправен Рубио изскочи в Deepfake по -рано тази година, заявявайки, че желае да отреже достъпа на Украйна до интернет услугата на Елон Мъск. Ukraine’s government later rebutted the false claim.

The national security implications are huge: People who think they’re chatting with Rubio or Wiles, for instance, might discuss sensitive information about diplomatic negotiations or military strategy.

“You’re either trying to extract sensitive secrets or competitive information or you’re going after access, to an email server or other sensitive network, ” Kinny Chan, CEO of the Фирма за киберсигурност QID, сподели за вероятните мотивации.

Синтетичните среди също могат да се стремят да трансформират държанието. Миналата година демократичните гласоподаватели в Ню Хемпшир получиха робокол, призовавайки ги да не гласоподават в идния примитивен първичен държав. Гласът на диалога звучеше съмнително като тогавашния президент Джо Байдън, само че в действителност беше основан благодарение на AI.

Способността им да заблудят, прави AI Deepfakes мощно оръжие за задгранични артисти. И Русия, и Китай са употребявали дезинформация и агитация, ориентирани към американците като метод за подкопаване на доверието в демократичните съюзи и институции.

Стивън Крамер, политическият съветник, който призна, че изпраща подправените робокали на Байдън, съобщи, че желае да изпрати обръщение за заплахата Deepfakes Pose на американската политическа система. Крамер беше оневинен предишния месец обвинявания за угнетяване на гласоподавателите и показване на претендент.

„ Направих това, което направих за 500 $ “, сподели Крамер. „ Можете ли да си визиите какво би се случило, в случай че китайското държавно управление реши да направи това? “

Измамниците са ориентирани към финансовата промишленост с Deepfakes

По -голямата наличност и рационализиране на стратегиите значат, че Deepfakes се употребяват от ден на ден за машинация с корпоративен шпионаж и култивиран сортове.

„ Финансовата промишленост е тъкмо в кръстосаните коси “, съобщи Дженифър Еубанк, някогашен шеф на Заместник на Централно разузнавателно управление на САЩ, който работи на кисечината и цифровите закани. „ Дори хората, които се познават, са били уверени да трансферират големи суми пари. “

В подтекста на корпоративния шпионаж те могат да бъдат употребявани за показване на изпълнителни шефове, които желаят чиновниците да предават пароли или маршрутизирани номера.

Deepfakes също може да разреши на измамниците да аплайват за работа - и даже да ги правят - под хипотетична или подправена еднаквост. За някои това е метод за достъп до чувствителни мрежи, за кражба на секрети или за инсталиране на откуп. Други просто желаят работата и може да работят няколко сходни работни места в разнообразни компании по едно и също време.

Властите в Съединени американски щати обявиха, че хиляди севернокорейци с умения за осведомителни технологии са изпратени да живеят в чужбина, като се употребяват откраднати самоличности, с цел да получат работни места в софтуерните компании в Съединени американски щати и другаде. Работниците получават достъп до фирмени мрежи, както и до заплата. В някои случаи служащите конфигурират откуп, който по -късно може да се употребява за изнудване на още повече пари.

The schemes have generated billions of dollars for the North Korean government.

Within three years, as many as 1 in 4 job applications is expected to be fake, according to research from Adaptive Security, a cybersecurity company.

“We’ve entered an era where anyone with a laptop and access to an open-source model can convincingly impersonate a real person, ” said Brian Long, Adaptive’s CEO. „ Вече не става въпрос за хакерски системи - а за хакване на доверие. “

Експертите разполагат с AI, с цел да се борят против AI

откривателите, специалистите по обществена политика и софтуерните компании в този момент изследват най -добрите способи за справяне с икономическите, политическите и обществените провокации, сложени от DeepFakes.

Новите разпореждания могат да изискват от софтуерните компании да създадат повече, с цел да разпознават, етикетират и евентуално да отстранен Deepfakes на своите платформи. Lawmakers could also impose greater penalties on those who use digital technology to deceive others — if they can be caught.

Greater investments in digital literacy could also boost people’s immunity to online deception by teaching them ways to spot fake media and avoid falling prey to scammers.

The best tool for catching AI may be another AI program, one trained to sniff out the tiny flaws in deepfakes that биха останали незабелязани от човек.

Системи като Pindrop проучват милиони данни за данни в речта на всеки човек, с цел да разпознават бързо нередности. Системата може да се употребява по време на изявленията за работа или други видеоконференции, с цел да се открие дали индивидът употребява програмен продукт за гласово клониране, да вземем за пример.

Подобни стратегии могат един ден да бъдат нормални, работещи на назад във времето, до момента в който хората беседват с сътрудници и близки онлайн. Някой ден Deepfakes може да върви по пътя на имейл спама, софтуерно предизвикателство, което един път заплаши да усили полезността на имейла, съобщи Баласубрамания, изпълнителен шеф на Pindrop.

„ Можете да възприемете поражествения мироглед и да кажете, че ще бъдем подчинени на дезинформацията “, сподели той. „ Но това няма да се случи. “